Sliding Window Log
from Rate Limiting
GPT-4.icon
リクエストのタイムスタンプをログに記録し、現在の時間から一定期間内のリクエスト数を計算
特徴
精度が高いが、ログサイズが増えるとメモリ消費が大きくなる。
Fixed Window Counterの改善
/mrsekut-book-4802614063/076